跳到主要内容

层和块

自定义块​

这里直接引用沐神的一句话:“比单个层大”但“比整个模型小”的组件更有价值。

块(block)可以描述单个层、由多个层组成的组件或整个模型本身。组件化这些层,方便我们递归地组成一个更大的模型。

在代码中块由类(Class)表示,块的任何子类都必须定义一个将其输入转换为输出的前向传播函数,并且必须存储任何必需的参数。

为了计算梯度,块必须具有反向传播函数。

用nn.Sequential()初始化一个网络,其中包含一个具有256个单元和ReLU激活函数的全连接隐藏层,然后是一个具有10个隐藏单元且不带激活函数的全连接输出层。

import torch
from torch import nn
from torch.nn import functional as F

net = nn.Sequential(nn.Linear(20, 256), nn.ReLU(), nn.Linear(256, 10))

X = torch.rand(2, 20)
net(X)

net(X)实际上是net.__call__(X)的简写。

本文字数:0 字

预计阅读时间:0 分钟


统计信息加载中...

有问题?请向我提出issue